Googleは、Geminiモデルのアーキテクチャをシリコンに直接組み込むAIチップ「Frozen v2」を開発中。データ移動と計算を省き、推論効率を向上。最新の汎用TPUより高い電力効率を実現し、大規模モデルをより経済的に運用可能に。....
Bigcode
$2
入力トークン/百万
-
出力トークン/百万
8
コンテキスト長